MLOps 的發展也已經經歷了 5 年以上,目前來到了 LLM (大型語言模型) 的時代,而 LLM 的訓練與部署,更是需要更多的資源與時間,因此 MLOps 的重要性也更加的凸顯。
大多數的 MLOps/LLMOps 的實踐,不外乎自行架設模型訓練平台,或是利用幾大家雲端服務,但是在實際的企業中,往往會有多個雲端的環境,因此我們需要更多的工具與生態圈來協助我們在混合雲的環境中,進行 MLOps/LLMOps 的實踐。
此系列將會以 MLOps/LLMOps 的幾個核心元件為主軸,分別介紹幾個常見的工具、生態圈,並且透過簡單的範例,分別在不同的工具上展示從資料工程的開發階段,程式碼管理,模型上線、監控,達到 MLOps/LLMOps 的完整實踐。
底下為此系列的大綱,將會持續更新,歡迎各位先進不吝給予指教與討論。
本篇文章同步發表於 吉米筆記本
#15th鐵人賽 #iThome #MLOps #LLMOps #LLM